"日本文化AI"の開発：地球規模の熟議のためのPlurality
テクノロジーと民主主義は戦争状態にあります。テクノロジーは権威主義的な監視を強化し、民主主義制度を侵食しています。一方、民主主義は制約的な規制と公共部門の保守主義で反撃しています。この対立は避けられません。その中で、人工知能 (AI) や暗号通貨などの反民主的なテクノロジーに投資することを、私たちは選択してきました。 しかし、私は"アシスタント人工知能"(assistive intelligence)が、私たちの時間をより有意義な目的を追求するために解放してくれると確信しています。 漠然とした「AI」ではなく、具体的なAIの応用であるChatGPTを使って、Audrey Tangは「アシスタント人工知能は有益だ」と確信している 一方で「この力は社会に不可逆な変化を与える」と考えている
...変革的なテクノロジーが出現すると、多様なコミュニティは、それぞれの目的を達成するために、独自の使用パターンを生み出します。
多様なコミュニティがこの力の使い方のパターンを模索していく
独裁国家はこの力を支配の手段として使うだろう
5/25、「AIの総本山」ChatGPTを開発しているOpenAIからアナウンスされた
OpenAI「民主的プロセスを改善する実験を支援します」
総額$1,000,000……いちおくえん？！
何これ？民主的プロセス？？OpenAIはなぜこれに1億円も出すの？？？ 「Democratic Input to AI」の目的
AIは経済的社会的に広範囲な影響をもたらす
「AIがどうあるべきか」の意思決定が、営利企業の経営陣のような「少数の人間」によって行われるのは正しくない この方向性の第一歩を踏み出すために実験プロジェクトを支援する
意思決定に関連する問題を探求し、将来的にはより直接的に意思決定に情報を提供できるような、新たな民主的ツールを構築することを期待している。 すっごく面白そうじゃん？！/nishio/nishio.icon
応募した！！
7/15に結果がわかる
普通こういうのは採否未定の段階では話さないんだけど、プロジェクトの計画を立てるうちにプロジェクトメンバー自身がワクワクし始めて「面白いから採否関係なくやっちゃおう」ということになった
もう活動開始して、プロジェクトへの参加を受付開始している
道路などのインフラは物理的な土地に密結合だったので、物理的に局在している「国」が監督するのは合理的だった
AIは地球規模のインフラなので、国は適切な統治単位ではない、新たな統治技術が必要だ
(この話は「Ethereumは地球規模のインフラなので〜」と読み替えると納得する人も多いかと思う)
(Audrey 2023)これらのコミュニティは、規範や文化が異なるかもしれませんが、共通の価値観を明らかにすることで、みんなで熟考・熟議を行い、相互運用可能なコプレゼンスを育てることができます。
地球規模の熟議をする上で、各コミュニティは規範や文化が異なる
みんなで地球規模の熟議をするためには、異なる文化の存在を認めて、その中にある共通の価値観を明らかにする必要がある
SFプロトタイピングとPolis的システムを繰り返す
このプロジェクトの仕組み
https://scrapbox.io/files/6499b485af32bb001bf19a81.png
熟議のためには先に前提知識の共有が必要だ
しかし知識の羅列を用意しても大部分の人は読もうとしない
「読みたい気持ち」を引き起こすことが必要
SFショートショートによる世界観の共有がいいのでは(仮説)
ストーリーに対する読者のフィードバックを集め、それを可視化することによって新たなアイデアが生まれ、また新しいストーリーが作られる
このイテレーションを繰り返すことによって徐々に改善していく、という反復構造 それらが全部蓄積していった結果として…
日本語話者の思考や感情をデータセットとしたAIができる
このAIは世界中で利用可能になり、人々がそれぞれの言語で会話できるようになる
「日本文化」って言葉で古典的文化を連想する人も多いかもしれないが、まずイメージして欲しいのは
日本でドラえもんを知らない人はいないだろうし、世界でもかなり認知が広がっている
ドラえもんは「AIは友達」的な世界観を生み出している ハリウッド映画的「人類を滅ぼそうとするAI」ストーリーに対するアンチテーゼ
「人類を滅ぼそうとするAI」ストーリーに立脚して悪い未来を思い描いた人は、AIに対する法的拘束力のある規制を作ろうとする
もう一つ、プロジェクトの参加者から出てきたキーワード:
人間が作った道具が、長く使っているうちに魂を持つようになり、最終的に神になる LLMが賢くなって、人格的存在になる未来イメージ
それを「神」と呼ぶことに、一神教文化圏の人は反発する
日本の「神」の概念が一神教の神とかなり違うもの
日本はキリスト教の割合が1%しかない、一方アメリカは7割近い
AIは道具、人間に匹敵する能力を獲得しないように規制すべきだ論
神が人間を作った
神は人間より上位の存在
人間がAIを作った
AIが人間に匹敵してしまうと？
「被創造物が創造主に並びうる」は「神は人間より上位の存在」という概念への挑戦になってしまう、不遜！
人間が「人間を作る」という神の御業をしたことになる
クローン人間同様に倫理的に好ましくない！
地球規模の熟議を可能にするには、こういう文化的な考え方の違いを互いに理解していく必要がある ドラえもんや付喪神の概念を世界の人々が理解するためのアクションが必要
認識論的多元主義
E. Glen Weyl, February 10, 2022
多元主義に2つの側面、制度的なものと認識論的なものがある
宗教(≒世界観)や言葉のPlurality
思考をするためには、その思考の部品である「概念」に、操作するための取っ手である「名前」をつける必要がある しかしこの「名前」は言語や文化によって異なっている
これを英語に訳そうとすると「納得感」をどう訳すのかが問題になる すんなり翻訳する訳語がないということは、それを翻訳することは思考の損失を生むということ
日本語話者が日本語で熟議をした上で、それがAIによって世界の人々に共有されると良い
夢物語のように感じられるかもしれないけど、技術的な実現可能性は高い
まず「コミュニケーションの場」としてScrapboxを使用している
生成されたストーリーや、感想、その他の雑談など、なんでもここに書かれる
実現済みの実装
ScrapboxのデータをGithub Actionsで1日1回データをエクスポートする
500トークンのチャンクに分けてOpenAI Embedding APIでベクトル埋め込みし、Qdrantに格納している
これによって世界中の人に対して「私は日本文化AIの成立に参加/貢献した」と証明できる
オープンベータ中！
ある参加者の感想
採否は未定ですが、オープンベータでプロジェクト自体のプロトタイピングをしています！ 現在30人が参加中
もちろん7/15に採択が決まった後で参加するのもウェルカムです！
多様な視点を集めるために、いろいろなコミュニティの人を勧誘したい このプロジェクトがAIなどの技術に強い人とつながる機会になればきっと面白い未来が生まれる